iT邦幫忙

2026 iThome 鐵人賽

DAY 4
0
IT Operation

給決策者的 30 堂 AI 素養課系列 第 4

【Day 4】從 prompt engineering 到 graph engineering

  • 分享至 

  • xImage
  •  

從 prompt、context、harness、loop 到 graph engineering,這兩年每隔一陣子就多一種「AI 工程」。名字一直換,背後說的都是同一件事:AI 的潛力很大,人類一邊探索、一邊想辦法駕馭它。這部技術演進史,其實也就是一部治理史。

五代工程,五層韁繩

第一代・Prompt engineering(提問工程):ChatGPT 剛出來時,AI 只會「說」。唯一能動的槓桿是輸入,同一個問題換個問法、給個範例、指定角色,結果就差很多。這一代管的是怎麼問。

第二代・Context engineering(情境工程):AI 開始能查資料、能用工具(能做)之後,大家發現光會問不夠,答得好不好取決於它手上有什麼。重點於是從「巧妙措辭」變成「安排它看到的整個資訊環境」:對的知識、對的範例、對的工具、對的護欄。這一代的護欄(guardrail)在控制資訊邊界與隔離。

第三代・Harness engineering(駕馭工程):等 AI 要真的動手、還要多步驟運轉(長成 agent),光給足情境還不夠。要駕馭這匹馬,得架馬鞍、綁韁繩:權限分級、狀態儲存、出錯回復。這一代決定它夠不夠可靠、能不能真的上線。護欄落在運作層:哪些工具能用、用什麼身分執行、能回傳什麼。

第四代・Loop engineering(迴圈工程):這就是上一篇提到的「迴圈」。agent 跑得起來之後,接下來是它能不能持續做穩。讓系統從環境中發現該做什麼、評估做到什麼程度、再把結果沉澱下來,讓下一輪更有效率。護欄在系統層:流程怎麼觸發、幾步該停、預算多少、什麼時候把控制權交回給人。

第五代・Graph engineering(圖工程):當系統中有多個 agent 在運行的時候,光控制一個 agent 的行為已經不夠,因此要把多個 agent 接成一張「圖」:每個節點是一個 agent,節點之間連成路由,共用狀態沿著線流動,可以分頭平行、看情況轉彎、也可以在關鍵處插進人工簽核點。護欄在拓撲層:誰能把工作交給誰、共用狀態誰能寫、哪一條線上一定要卡一個人。

把五代排在一起,會看到一條線:prompt(控制輸出行為)→ context(控制資訊邊界)→ harness(控制執行方式)→ loop(控制自主迴圈)→ graph(控制多 agent 協作)。每往上一層,AI 就更自主、更難管一點;每一代「工程」,都是一次治理動作。

把這幾層套到一個具體例子。假設你要一個公司內部的財務 agent

  • Prompt:定義它是「財務助理」、規定輸出格式、要它主動標出風險。
  • Context:只讓它讀特定 ERP 資料,靠 RAG 加權限過濾,看不到不該看的。
  • Harness:只能改指定欄位(標對帳狀態、記異常,但動不了金額)、用受限帳號跑、出錯有 retry。
  • Loop:每天自動對帳,發現異常才往下深入;信心不足就停下來,交給人。
  • Graph:對帳、稽核、出報表拆成不同 agent,一個產、一個審,觸發某種規則就一定轉由人進行。

🤿 深水區:五代工程常聽到的 buzzword

① prompt:提示要明確、給範例(one-shot/few-shot)、要求逐步推理(chain of thought)、給角色(persona)、指定輸出格式、允許說不知道。

② context:context window(一次看得到多少,動輒 1M token)、RAG(要用時才把相關資料撈進來)、compaction/摘要壓縮(塞不下先濃縮)、prompt caching(重複情境快取省錢)。

③ harness+④ loop:agent 運作(ReAct)、護欄、調度(orchestration、agent runtime、sub-agent)、人機協作(HITL)、持續運作(trigger、escalation)。

⑤ graph:代表工具是 LangGraph、CrewAI,把多 agent 接成有節點、有路由、有條件分支的圖。圖這件事不新,新的是模型終於可靠到能讓「一整個 agent」當一個節點。不過這也正好證明:名詞會一直換、會過期,真正沒變的,是每個新名詞底下的治理難題。

對經營者意味著什麼:治理是第一天就開始的工程

導入 agent 時,很多公司把「治理」想成之後的專案:先上線、跑跑看、看到價值,再回頭思考合規辦法、審核流程。但從這部工程史看,治理不是加在技術後面的東西,它就是技術本身,每一代解決的,都是「怎麼安全地讓它多做一點」。把治理往後推,等於把最難、最貴、爆炸半徑最大的那一層留到最後才做。

而且越到後面幾代,這條判斷越外包不掉。你可以外包 prompt 技巧、外包工具串接,但「我們公司的架構下,agent 能自己跑到哪、多個 agent 之間誰能交接給誰、哪一條邊必須停下來等人簽核」這幾條線,只有自己才能畫。

演進軸是寫給工程師看的,護欄軸才是經營層必須拿起來的尺。而護欄有不同的形式。

  • 指令:在提示詞裡規範它。這一層最便宜、最直接,也最容易讓人產生控制的錯覺。艾西莫夫的機器人三定律,不得傷害人類、必須服從人類、在不違反前兩條的前提下保護自己,就是這一種規範。它沒踰矩,是因為它剛好沒做,不是因為它做不到。
  • 流程:重要節點卡一個人檢核。有效,但貴,而且量一大就容易變成形式。
  • 架構:它根本沒有那個權限,所以做不到。最貴、最慢,只有這一層在它跑偏的時候還擋得住。

要拿走的問題

  • 執行層(CTO/CIO):我們現在對公司內 AI 工具的控制落在哪幾面向?prompt、context、harness、loop,還是 graph?
  • 經營層(董事會/CEO):我們的護欄有哪些是「它做不到」,有哪些只是「提示詞裡的限制」?

一句話帶走:規範它不要做,跟讓它做不到,是兩件事。

韁繩講完了,但馴服一個東西之前,得先認識它的脾氣。這幾代工程再怎麼進步,都改不掉一個天生的毛病:它會一本正經地說 X 話,而且錯得很理所當然。為什麼會這樣?明天繼續。


上一篇
【Day 3】Agent 是什麼?可以吃嗎?(不可以)
下一篇
【Day 5】使用 AI 的那些挫折:為什麼它總是很有自信地答錯
系列文
給決策者的 30 堂 AI 素養課5
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言